Revisiting Generative vs. Dense Retrieval: A Static Value Prior Reverses the Gap
重审生成式与稠密检索:静态价值先验逆转差距
🧭 生成式 vs 稠密检索的评估与价值先验 ★ 深度解读
Shopify · University of Toronto
电商候选检索中,GR 的价值领先主要来自静态热门度,静态价值先验重排 DR 可反超且保持 recall 领先
📌 工作参考价值(4 点)
- 在电商候选生成离线评测中,除了 Recall@k / NDCG@k 的 exact next-item,务必加入 best-item value (BV@k) 和 value-weighted NDCG (vNDCG@k)。精确命中指标有 substitute blindness,无法奖励“有用替代品”,可能导致 GR 看起来很强;用类目/共现/LLM-judge 的部分得分更能反映真实业务价值。
- 若团队正在对比 Semantic ID 生成式召回与双塔/稠密召回,先做一次价值分解:把生成式方法的价值领先拆成 popularity / rating / brand 等静态项。如果 popularity 贡献 50%+,说明领先很可能来自“背热门”,不是个性化理解;可以做 popularity-agnostic 评估或对热门项降权。
- 训练一个简单且强的 baseline:DR + static prior。把 DR 相似度归一化后与静态商品价值分按 0.5 权重融合,只对 top-200 候选重排;不用重新训练、不用 decoder,线上可即时部署。论文中这一招把 DR 的 BV@50 从落后 GR 变成领先,Recall 还高于 GR,vNDCG 最高。
- 工业场景不要被参数规模唬住:14B 的 SID-LLM 生成式召回在 LLM-judged 分级相关性上低于约 300M 的稠密 encoder。升级到 GR 前,建议用 LLM-judge 对候选做 graded relevance(可给替代品部分分数),并与 DR+静态价值先验做 A/B;如果 GR 没有显著价值增量,维持 DR 成本更低。